🤔 Какие практические соображения важны при выборе функции активации
Память, вычислительная эффективность, числовая устойчивость и простота реализации — всё это важные факторы.
Например, ReLU и её варианты являются простыми покомпонентными операциями, которые хорошо оптимизированы на современном оборудовании (GPU и TPU).
Функции типа сигмоида или tanh могут быть более затратными по вычислениям и подвержены переполнению или исчезающе малым значениям в условиях экстремальных входов.
Когда производительность критична, многие исследователи по умолчанию выбирают ReLU — она обеспечивает хороший баланс между точностью, вычислительной эффективностью и стабильностью.
Дополнительные соображения включают в себя: ➡️требуемый диапазон входов и выходов для последующих слоёв; ➡️вероятность возникновения исчезающих или взрывающихся градиентов; ➡️регуляризирующий эффект некоторых функций активации (например, SELU способствует самонормализации при определённых условиях).
🤔 Какие практические соображения важны при выборе функции активации
Память, вычислительная эффективность, числовая устойчивость и простота реализации — всё это важные факторы.
Например, ReLU и её варианты являются простыми покомпонентными операциями, которые хорошо оптимизированы на современном оборудовании (GPU и TPU).
Функции типа сигмоида или tanh могут быть более затратными по вычислениям и подвержены переполнению или исчезающе малым значениям в условиях экстремальных входов.
Когда производительность критична, многие исследователи по умолчанию выбирают ReLU — она обеспечивает хороший баланс между точностью, вычислительной эффективностью и стабильностью.
Дополнительные соображения включают в себя: ➡️требуемый диапазон входов и выходов для последующих слоёв; ➡️вероятность возникновения исчезающих или взрывающихся градиентов; ➡️регуляризирующий эффект некоторых функций активации (например, SELU способствует самонормализации при определённых условиях).
Bitcoin is built on a distributed digital record called a blockchain. As the name implies, blockchain is a linked body of data, made up of units called blocks that contain information about each and every transaction, including date and time, total value, buyer and seller, and a unique identifying code for each exchange. Entries are strung together in chronological order, creating a digital chain of blocks. “Once a block is added to the blockchain, it becomes accessible to anyone who wishes to view it, acting as a public ledger of cryptocurrency transactions,” says Stacey Harris, consultant for Pelicoin, a network of cryptocurrency ATMs. Blockchain is decentralized, which means it’s not controlled by any one organization. “It’s like a Google Doc that anyone can work on,” says Buchi Okoro, CEO and co-founder of African cryptocurrency exchange Quidax. “Nobody owns it, but anyone who has a link can contribute to it. And as different people update it, your copy also gets updated.”
To pay the bills, Mr. Durov is issuing investors $1 billion to $1.5 billion of company debt, with the promise of discounted equity if the company eventually goes public, the people briefed on the plans said. He has also announced plans to start selling ads in public Telegram channels as soon as later this year, as well as offering other premium services for businesses and users.
Библиотека собеса по Data Science | вопросы с собеседований from in